由于其对金融服务,保险和医疗保健等许多行业的自动化业务工作流程的潜在影响,自动化信息提取的信息从格式的信息提取是一种压迫需求。关键挑战是这些业务工作流中的形式类似的文件可以在很多无限的方式下放出;因此,对此问题的良好解决方案应该概括到具有看不见的布局和语言的文档。此问题的解决方案需要对文档中的文本段和视觉提示的全面了解,这是非微不足道的。虽然自然语言处理和计算机视觉社区开始解决这个问题,但在(1)数据效率上没有大量关注(2)跨越不同文档类型和语言的能力。在本文中,我们认为,当我们只有少量标记的培训文件(〜50)时,从相当大的结构不同的较大标记的语料库中的简单转移学习方法产生高达27 f1点的改进,即在简单的训练上目标域中的小语料库。我们通过简单的多域转移学习方法改进了这一点,目前正在生产使用中,并表明这达到了8个F1点的改进。我们使数据效率至关重要,使信息提取系统能够扩展以处理数百种不同的文档类型,并且学习良好的表示对于实现这一目标是至关重要的。
translated by 谷歌翻译